Aunque cada vez conocemos más sobre la mente humana,
la consciencia sigue siendo un gran misterio.
Nos adentramos, con este nuevo programa,
en el reto que supone crear una mente artificial.
Nos acompaña en este viaje Raúl Arrabales,
experto en neurociencia cognitiva
y director de Inteligencia Artificial de Psicobótica.
¿El ser humano puede ser sustituido por robots...
o aplicaciones informáticas en determinadas tareas?
¿Cuáles son las oportunidades...
y limitaciones que se abren en este campo?
¿Qué papel juega la ética a la hora de programar?
-Buenos días, Raúl, ¿qué tal? -Buenos días, muy bien, encantado.
-Estamos rodeados de inteligencia artificial
en todos los aspectos de nuestra vida.
Me parece... que tú tienes una doble vertiente,
como psicólogo y también como ingeniero
para hablarnos de este tema.
Entonces, me gustaría que me contaras... primero
¿en qué se diferencia la inteligencia artificial
de la inteligencia natural?
-Está muy bien hacer esta distinción porque, además,
ahora que está tan de moda el término de inteligencia artificial,
mucha gente al final acude a lo que tenemos más accesible
que es la ciencia-ficción.
Y, de hecho, tanto en la ciencia-ficción
como en los inicios de la investigación
en inteligencia artificial,
sí que se hacía mucho está analogía entre un cerebro y un ordenador,
como si fueran casi lo mismo.
Se consideraba, prácticamente, que al ser capaces, los humanos,
de hacer computadoras, de hacer ordenadores,
íbamos a conseguir que esas máquinas fueran igual de capaces...
mentalmente, que un humano,
y esa sería la postura en la que básicamente diríamos que...
como si no hubiera diferencia entre lo que es la inteligencia artificial,
que es algo basado en ordenadores,
y la computación biológica, por llamarlo de otra forma,
o la computación natural, o el procesamiento de información...
que ocurre de forma natural en los sistemas orgánicos como los humanos.
En la realidad, hoy en día todos ya estamos de acuerdo...
en que se parecen... bastante menos de lo que pensamos al inicio,
es decir, son muy diferentes.
Hay algunas bases que son comunes,
y la parte común termina en que ambos recibimos información,
somos como informávoros, decimos,
tomamos información del medio, en forma de datos,
en el caso de los humanos son los sentidos,
hacemos algún tipo de procesamiento con esa información
y damos un resultado,
en el caso de los humanos el resultado que damos...
pues es nuestra conducta, nuestros pensamientos, el lenguaje...
y ahí, yo creo que... por romper con esa idea inicial,
ahí terminarían las similitudes,
a partir de ahí es más bien diferencia lo que hay.
Por poner un ejemplo concreto, algo que vemos a día de hoy es que...
las soluciones de inteligencia artificial,
con las que contamos en el mercado,
son lo que se llaman de propósito específico,
es lo que también se conocía, inicialmente, como la IA débil,
como una máquina que juega al ajedrez
o una máquina que calcula las mejores rutas
para los viajes de los aviones, cosas de ese estilo.
Eso son soluciones que dan respuesta a un problema muy concreto
y se diferencia de cómo funciona un humano,
porque un humano es capaz de dar soluciones a problemas muy variados,
somos mucho más flexibles,
mucho más diversificables en el sentido de que...
podemos enfrentarnos a cualquier tipo de problemas
y podemos aprender... tener curvas de aprendizaje,
en diferentes dominios del problema.
-¿Y esta complejidad de los humanos...
está relacionada con esto que se dice que...
se van a perder muchísimos puestos de trabajo,
dos o tres millones de puestos de trabajo,
porque nos van a sustituir por robots?
-Ahí creo que hay una parte importante de sensacionalismo,
porque se parte de una premisa falsa, que es la siguiente.
La premisa falsa sería...
"las máquinas son capaces de automatizar tareas
que típicamente hacen los humanos",
y esto es lo que conocemos de la revolución industrial,
que es cierto, ha pasado, había tareas que los humanos...
tarea físicas, que los humanos realizamos,
por ejemplo, yo qué sé... soldar un vehículo
en una planta de producción de automóviles,
y eso hoy en día se puede automatizar mediante una máquina.
En ese caso, está claro, que hay un puesto de trabajo...
que es sustituido por una máquina que automatiza.
Ahí la premisa parece que puede ser verdadera para cualquier trabajo
y aquí viene la equivocación,
y es que hay muchas tareas que se requieren hoy en día
y que usamos inteligencia artificial para resolverlas
y no estamos sustituyendo a humanos,
pese a que sí estamos automatizando, me explico.
El ejemplo típico sería... un comercio electrónico,
cuando nosotros nos conectamos a una tienda de comercio electrónico,
hay un algoritmo, por detrás... funcionando,
que automatiza la tarea de...
decidir qué productos se nos muestran...
en la página web o en la aplicación móvil,
y, claro, ese es un trabajo que está realizando...
una inteligencia artificial y que está automatizando,
pero no le está quitando el puesto de trabajo a nadie.
¿Por qué?, porque realmente es una tarea que un humano...
nunca ha podido realizar a gran volumen, a gran escala,
porque una tienda de comercio electrónico al final atiende...
a cientos de miles, incluso a millones de usuarios...
que aparecen durante el tiempo... por minuto o por hora,
no es factible tener tantos humanos automatizando esas tareas,
y de ahí viene la idea falsa de que...
"con tanta automatización que hay,
vamos a perder puestos de trabajo",
que va, con tanta automatización lo que logramos es...
realizar unas tareas que antes, directamente,
es que no se podían realizar y ahora si se pueden,
pero no es a costa de quitar puestos de trabajo,
otra cosa, que sí que tenemos claro,
es que la cualificación de los puestos de trabajo tiene que cambiar,
pero como ha cambiado siempre ¿no?
-¿Y qué ocurre con el factor humano?,
por ejemplo, a veces, en los medios de comunicación se habla de que...
incluso los camareros van a desaparecer o los cajeros...
ahí entra un poco tu papel también como psicólogo...
¿crees que hay un factor ahí, digamos que enriquece lo laboral,
que a lo mejor eso va a ser insustituible, de alguna manera?
-Sí, ahí sin duda... yo ahí sí que veo claro que todos necesitamos...
al final, somos seres sociales,
y necesitamos una relación con uno a otro,
esto es así, es una verdad...
y de una forma u otra buscamos esa conexión,
de hecho, por eso es el éxito de las redes sociales
y la tecnología alrededor de ese contacto social,
que es el que seguimos buscando siempre.
Entonces, claro, aquí habría dos líneas,
tendríamos que pensar, por un lado,
"oye, serían las máquinas capaces de sustituir a un humano
en nutrir socialmente a otra persona,
en que yo pueda desarrollar una relación...
lo que vemos en la ciencia-ficción",
hoy en día es eso, ciencia-ficción y no es real,
o sea, no existe una máquina que sustituya...
esa calidad de relación vincular que existe entre una o más personas,
eso no existe hoy en día.
No obstante, sí que se está haciendo investigación en esa línea.
Yo, sinceramente,
mi opinión es que no se va a poder sustituir completamente,
pero sí que quizá en ciertos aspectos pueda cubrir cierto nicho,
cierta parte de relación que va a ser... bueno, artificial,
dejemos la palabra artificial,
si es que no va a sustituir a una relación natural entre las personas,
pero, bueno, puede haber algo.
Y, por otro lado, yo creo que también siempre...
vamos a seguir necesitando...
el contacto humano y no va a desaparecer,
ni lo va a sustituir, o sea, yo no lo veo como un sustituto,
lo veo como algo adicional.
¿Qué ocurre?, que volvemos a los temas también muy de...
de escalado, de volumen, de mercado,
que cuando las compañías...
y ahora me pongo en una clave más comercial, más empresarial,
cuando una compañía necesita dar servicio...
a miles o a cientos de miles, o a millones de clientes,
no tiene capacidad de hacerlo mediante humanos,
porque es imposible,
entonces, ahí es cuando se recurre a la automatización,
incluso automatización de la relación con el cliente...
y se pierde.
Mi opinión es que cuando vas a volumen... pierdes calidad,
es que esto es lo de bueno, bonito y barato, no puede ser,
entonces, si vas a volumen, algo puedes automatizar,
pero estás perdiendo calidad humana,
y la calidad humana vamos a seguir requiriéndola y buscándola,
pero no va a ser... en gran volumen,
simple y llanamente porque un humano no puede soportar, en su mente,
tener relaciones íntimas
o relaciones de calidad vinculares... con 250 personas,
porque básicamente no tenemos capacidad para ello.
-Y, al hilo de lo que estás comentando,
esto también puede estar relacionando cuando, por ejemplo,
llamas a una empresa telefónica
y te atiende un teleoperador... que es un robot y que...
esa exasperación que a veces produce,
que es como que no llegas nunca a hablar con una persona y es...
"pulse la tecla número 1 para esto, pulse la tecla número 2...",
a ver, aquí a lo mejor,
la empresa entiendo que tiene un interés...
en sustituir el factor humano porque, evidentemente,
vas a atender a muchas más personas con un robot,
pero, claro, desde el punto de vista del usuario,
muchas veces hay quejas en este sentido de que...
"no, no, es que yo quiero que me atienda una persona,
porque tengo una queja de este servicio
y me estáis mareando la perdiz con un robot", entonces...
¿qué hacemos con estas situaciones?
-Esa situación es algo que le preocupa mucho a...
todas las compañías que tienen relación con clientes,
que son básicamente todas las que van al consumidor,
y las compañías que están desarrollando tecnología
de automatización en ese campo,
que son... lo que mencionabas tú de los números, que se llaman IVR,
y luego los chatbots o las asistentes virtuales que son...
pues también softwares,
programas de inteligencia artificial,
capaces de mantener una conversación.
Y la solución parece que va por el siguiente sentido, es...
hagamos un 80/20, que es la famosa Ley de Pareto, que dice...
mira, en las peticiones que hacen los clientes a una compañía,
a un contact center, que lo dicen en inglés, a un call center,
el 80% de las peticiones son resolubles de forma fácil,
de forma automatizable, no implican mucho conflicto,
y una máquina con una automatización...
relativamente simple, las puede resolver.
Entonces, dejemos ese 80% de las peticiones,
las que se resuelven con "reinicie el router",
pues ya está, no requiere una mayor complejidad,
entonces las puedes dejar en manos de una máquina.
E identifiquemos muy bien cuáles son las otras llamadas,
que son el 15/20%, depende del negocio,
donde realmente la persona está requiriendo el contacto humano,
porque es algo excepcional o porque no es la típica consulta,
y porque requiere esa flexibilidad...
que sí que tiene un humano, pero que no tiene una máquina.
-También al hilo de esto que estás comentando,
me viene a la mente algo bastante reciente,
ahora se quiere implantar mucho la telemedicina,
entonces, ahí es muy importante... son como triajes, cribados...
y, claro, si quieres implantar un sistema de telemedicina,
te puedes quitar como... la gente que solo quiere una receta,
o sea, todas esas visitas a lo mejor inútiles...
que haces simplemente para un papel o una receta,
lo podrías sustituir, el factor humano... sin embargo,
para distinguir si una persona tiene un simple catarro
o una neumonía, a lo mejor necesitas auscultar,
entonces, ahí, va a haber problemas... físicos,
que siempre hace falta ese factor humano ¿no?,
yo lo entiendo así.
-Sí, en el caso de la atención sanitaria es muy claro y, de hecho,
se sabe muy bien que desde que los médicos de atención primaria...
empezaron a tener un ordenador en la sala,
la calidad de diagnóstico bajó un montón,
y la percepción del paciente,
porque el paciente ya no se encontraba cara a cara con su médico,
sino que lo que se encontraba...
es un médico que está mirando la pantalla, tecleando...
y rellenando una ficha en el ordenador...
y, claro, el diagnóstico parte de... sobre todo en salud,
parte de una relación entre el profesional sanitario y el paciente.
Ahí está muy claro... que se necesita ese contacto.
¿Qué ocurre?, que tenemos que buscar el equilibrio entre...
no considerar la tecnología como un competidor...
del profesional sanitario,
sino que la tecnología esté al servicio...
de una buena atención sanitaria,
y ahí es donde, quizá, como tú bien dices,
pues nos está costando encontrar el punto.
¿Qué ocurre?, que también...
fíjate, desde el punto de vista de la psicología ocurre...
ahora, cuando tenemos dificultades...
en atender a un paciente por un motivo de...
de su localización geográfica.
Es mucho mejor hacer una sesión de psicoterapia presencial,
porque tienes toda la parte de información no verbal disponible
y el vínculo se puede establecer mucho mejor.
Sin embargo, entre no tener acceso a la psicoterapia
y tenerla a través de videoconferencia,
probablemente es mejor tenerla a través de videoconferenci aunque...
esté mermada alguna capacidad de diagnóstico o de vinculación.
Entonces, bueno, yo creo que al final...
buscamos soluciones intermedias,
que nos permitan ir a mejorar la calidad.
-Y un bot, por ejemplo, podría hacer esta entrevista?
-Mira, pues al ser... volvemos al tema este de...
un problema de propósito específico
o una inteligencia general.
En principio, para hacer una entrevista... buena,
necesitas inteligencia general,
es decir, que seas capaz de relacionarte más
y que incluso, a lo mejor, no están en el contexto,
pero los puedes traer porque parecen interesantes en ese momento,
es algo que una máquina normalmente no tiene,
porque las máquinas... las que usamos hoy en día,
están muy enfocadas en tecnologías de aprendizaje automático,
y aprenden a partir de un conjunto de datos,
entonces, tienen un sesgo muy grande...
al conjunto de datos con el que han aprendido.
Entonces, para responderte más concretamente a la pregunta,
sí se podría tener una especie de chatbot o de asistente...
capaz de realizar entrevistas,
pero su forma de realizar las entrevistas estaría muy sesgada...
a las entrevistas previas con las que se ha entrenado
y, de hecho, copian o adquieren el patrón, el estilo,
de entrevistas...
que han visto previamente, con las cuales se les entrena.
Es decir, igual que los niños pasan una curva de aprendizaje,
o los profesionales tenemos que aprender una profesión,
pues esta máquina, en vez de darle unas reglas fijas,
lo que se hace es que observe muchas, muchas...
idealmente miles de entrevistas y, a partir de esas entrevistas,
genere... una entrevista nueva,
eso sí es posible a día de hoy,
pero, claro, la capacidad de innovación sería muy poca,
porque estaría sesgado o estaría muy limitado...
a los "maestros", entre comillas, que no son otra cosa que, al final,
un conjunto de ficheros con entrevistas.
-Y te quería preguntar, ahora, algo sobre una sensación subjetiva,
pero que a lo mejor puede tener más gente,
sobre el tema de cómo nos percibimos respecto a la tecnología,
en el sentido de que la inteligencia artificial
vemos que avanza muchísimo, se va desarrollando, pero, a la vez,
muchas veces el uso que se hace sobre nosotros, los humanos,
puede que... alguno nos autopercibamos,
como si estuviésemos siendo un objeto o un animal,
como esa sensación de...
como que nos estamos convirtiendo en pequeñas ovejitas de ganado,
o sea, como que... con esto de la geolocalización
o que te conviertes en una especie de stock,
que eres parte de una fábrica, entonces...
tienes esa sensación de que ya no soy humano,
he sido rebajada a algo inferior,
mientras que la inteligencia está desarrollándose y se está elevando,
yo me estoy como...
no sé si es una... será algún tipo de complejo, pero no sé.
¿Cómo percibes tú este fenómeno?
-Sí, yo creo que es natural que tengamos esa sensación...
porque es que, de hecho...
yo si lo miro desde el punto de vista de los años...
que he estado trabajando en un entorno empresarial,
desde el punto de vista de proyectos de big-data,
de inteligencia artificial aplicada a negocio,
donde lo que se busca es, de alguna forma, por un lado,
modelar y entender el comportamiento de los humanos,
sobre todo para poder predecir su comportamiento
y para poder influir en ese comportamiento,
si lo pensamos, al final, es el objetivo del marketing
y de las estrategias de negocio de muchas compañías.
¿Qué pasa?, que si te quedas solo en ese objetivo...
claro, se puede distorsionar mucho
y puede terminar en cosificar al consumidor,
y ya no ves personas,
lo que ve la persona que está a cargo de una cuenta de resultados...
es una cuenta de resultados,
y lo que ve es que puede modelar una serie de números,
al final, lo que tienes son sensores,
de alguna forma yo siempre lo explico así, digo
"los que hacemos inteligencia de cliente somos espías",
es como un sistema de...
igual que la CIA es un sistema de información para la defensa,
un servicio de inteligencia para la defensa,
las áreas de inteligencia de negocio
o de inteligencia de cliente,
son servicios de información para predecir...
el comportamiento, los deseos, las intenciones de un consumidor.
Y desde ese punto de vista, si te quedas en ese punto de vista,
efectivamente cosificas y terminas teniendo un modelo matemático,
modelo algorítmico, que te dice...
"mira, si yo el precio lo toco así y este producto lo... tal,
pues voy a vender un 0,8% más
y esto me va a dar un retorno de tantos millones de euros".
Claro, este punto de vista...
sí, está como que le resta toda la parte humana,
simplemente es un modelo matemático, financiero, económico,
de cómo dirigir, tomar decisiones empresariales...
que aumentan o que maximizan el beneficio.
Entonces, claro, si uno se queda en esa visión,
obviamente cae en un problema.
¿Qué hay que hacer?
y ¿qué es lo que también se enseña en las escuelas de negocio?
y ¿cuál es la responsabilidad que tenemos...
todos los que trabajamos en cualquier compañía,
en cualquier administración pública?,
que también puede ocurrir algo parecido
en la administración pública...
que no se nos olvide...
que es que lo que estamos es hablando de nosotros mismos,
que un consumidor somos cada uno de nosotros,
que un ciudadano somos cada uno de nosotros,
y que cuando hacemos procesos de medición
y montamos modelos matemáticos o algorítmicos que hacen predicciones...
siempre, siempre comenten error, es decir...
¿Por qué?, porque no estamos midiendo todo,
porque no tenemos una bola de cristal
que haga predicciones del futuro,
entonces, claro, no se nos puede olvidar esa parte.
La solución que yo veo aquí siempre...
y cuando te ves en ese conflicto, es decir...
"oye, yo por un lado, claro, quiero que mi negocio vaya bien,
pero, por otro lado, no me voy a convertir en un... no sé,
no estoy jugando con máquinas,
son personas de lo que estamos hablando".
Entonces, ahí viene la parte de que las compañías,
las organizaciones, las administraciones públicas,
los profesionales tenemos que tener valores
y tenemos que... de alguna forma, somos los padres de esos algoritmos.
Entonces, volvemos a la base de siempre que usamos una tecnología,
la persona o los humanos...
que creamos la tecnología y que la usamos,
somos responsables de su uso correcto.
Y ahí, por eso, la Unión Europea está creando el código ético...
bueno, lo ha creado, ya está el borrador definitivo,
de un código ético confiable,
que sepamos lo que los algoritmos hacen,
qué sesgos pueden tener, qué consecuencias puede haber...
y que no vayamos a lo loco con esto, claro,
porque tiene consecuencias reales... en personas,
no se nos puede olvidar.
-Desde un punto de vista psicológico... y como programador,
a la hora de desarrollar...
desde aplicaciones o asistentes virtuales
para todo tipo de actividades...
sabes si se está estudiando también el efecto que tiene...
psicológico, que tiene en los usuarios
respecto a, por ejemplo, lo que no se usa se atrofia, o sea...
tantos asistentes para aparcar pueden producir que, al final...
termines siendo un patoso que no seas capaz de...
cosas que antes hacías, como no lo usas, al final,
bueno, te ayudan tanto, tanto, tanto las máquinas...
que nos pueden convertir un poco más en inútiles, en algún sentido,
o no, o eso no se sabe muy bien.
-Yo creo que sí que es cierto, desde el punto de vista psicológico...
de cómo funciona nuestro sistema nervioso...
bueno, y todo el cuerpo en general,
efectivamente, capacidades que entrenamos las vamos haciendo mejor,
y capacidades que no entrenamos, pues no se desarrollan.
El hecho de tener... digámoslo así,
como lo explican algunos... tecnólogos o sociólogos también...
"tenemos como una capa de software...
encima de nuestro propio sistema nervioso".
Me explico, uno nace y tiene sus capacidades físicas,
mentales, que tiene.
¿Qué pasa?, en el momento que te dan una calculadora...
pues tú ya no necesitas saberte la tabla de multiplicar
ni saber multiplicar, porque tú...
lo que tienes que saber es utilizar la calculadora,
y eso te da como un súper poder,
el súper poder de poder calcular cuentas muy complejas en poco tiempo.
¿Qué pasa?, he aprendido...
yo, como humano, he aprendido a manejar la calculadora...
y he desaprendido a multiplicar sin calculadora.
Entonces, de alguna forma...
este es el precio que pagamos por tener súper poderes,
es decir, por yo tener el súper poder...
que antes, como humano, no tenía...
de hacer cuentas o cálculos muy complejos,
dependo, de alguna forma, de esa máquina,
si me despojan de la máquina... ya no sé hacerlos,
lo mismo con el navegador de CPS o con cualquier otra tecnología.
Entonces, simple y llanamente nos hemos...
somos dependientes de la tecnología, pero ya no solo con los ordenadores,
somos dependientes de la electricidad.
Entonces, yo aquí me doy por vencido,
sí que lo pienso muchas veces, digo "estoy atontándome",
yo mismo lo veo en mí, digo...
"es que soy incapaz de hacer cosas que, seguramente...
un humano de hace 100/150 años haría sin problema,
y yo soy incapaz de saber dónde está el norte".
¿Qué pasa?, que al final, como tengo mi dispositivo móvil
y tengo instalado... no vengo con mi sistema operativo,
pero me han instalado un software con súper poderes,
con el que me manejo.
Pues en ese... equilibrio nos encontramos,
yo creo que ya nos hemos rendido un poco
y quizá tengamos que buscar nuestros espacios donde...
podamos desarrollarnos también sin depender tanto de la tecnología,
por no perder nuestra propia naturaleza,
porque al final la vamos a ir perdiendo.
-Pues muy interesante,
nos quedamos con esa última reflexión.
Muchas gracias. -Muchas gracias, un placer.